Nicholas Alexandrovich chào đời tại Cung điện Alexander ở Tsarskoye Selo miền nam Saint Petersburg vào năm 1843 dưới thời trị vì của ông nội là Nga hoàng Nicholas I. Ông được đặt tên giống ông nội nhưng gia đình thường gọi ông bằng cái tên thân mặt hơn là "Nixa". Là con trai của Aleksandr, Thái tử nước Nga (sau là Aleksandr II) ông được tấn phong là Đại công tước của Nga và chính thức đứng thứ 2 trong hàng kế thừa hoàng vị từ khi chào đời. Trong hồi ký của Nữ đại công tước Olga Nikolaevna (con gái của Nicholas I) có miêu tả rằng sau khi Nicholas Alexandrovich ra đời ông nội của ông đã ra lệnh cho 3 người con trai của mình là Đại công tước Konstantin, Đại công tước Nicholas và Đại công tước Mikhail quỳ dưới nôi của cháu trai và thề sẽ trung thành với Hoàng đế tương lai của Nga. Năm 1855, ông nội Nicholas I qua đời, cha ông kế vị ngai vàng rồi trở thành Hoàng đế Alexander II của Nga và Nicholas 11 tuổi được phong tước hiệu tsesarevich.[3][4]

Nicholas trưởng thành được xem là đẹp trai và thông minh, Hoàng gia nga đã cho ông một nền giáo dục tốt đẹp.[5] Nicholas đặt biệt thân thiết với mẹ và cậu em trai nhỏ hơn ông hai tuổi Đại công tước Alexander, Nicholas thường gọi là em trai mình "Pug" để thể hiện sự thân thiết của ông.